Abdul Ghaffar meninggal dunia pada 5 Oktober 2021 akibat kanser.[3] Menurut jurucakap JI Qaisar Sharif, beliau telah menghidap kanser selama setahun.[4] Solat jenazahnya diimamkan oleh saudaranya Habib-ur-Rahman di Mansoorah, Lahore . Pengerusi JI Sirajul Haq, setiausaha agung Ameerul Azeem dan ribuan yang lain menyertai pengebumiannya.[5]